1 Parte I

1.1 Descrição dos dados

Para começar nossa análise vamos identificar as variáveis para entender o que elas podem significar no contexto da composição de um vinho.

str(wine_dset)
## 'data.frame':    6497 obs. of  14 variables:
##  $ id_vinho          : int  1 2 3 4 5 6 7 8 9 10 ...
##  $ fixedacidity      : num  6.6 6.7 10.6 5.4 6.7 6.8 6.6 7.2 5.1 6.2 ...
##  $ volatileacidity   : num  0.24 0.34 0.31 0.18 0.3 0.5 0.61 0.66 0.26 0.22 ...
##  $ citricacid        : num  0.35 0.43 0.49 0.24 0.44 0.11 0 0.33 0.33 0.2 ...
##  $ residualsugar     : num  7.7 1.6 2.2 4.8 18.8 ...
##  $ chlorides         : num  0.031 0.041 0.063 0.041 0.057 0.075 0.069 0.068 0.027 0.035 ...
##  $ freesulfurdioxide : num  36 29 18 30 65 16 4 34 46 58 ...
##  $ totalsulfurdioxide: num  135 114 40 113 224 49 8 102 113 184 ...
##  $ density           : num  0.994 0.99 0.998 0.994 1 ...
##  $ pH                : num  3.19 3.23 3.14 3.42 3.11 3.36 3.33 3.27 3.35 3.11 ...
##  $ sulphates         : num  0.37 0.44 0.51 0.4 0.53 0.79 0.37 0.78 0.43 0.53 ...
##  $ alcohol           : num  10.5 12.6 9.8 9.4 9.1 9.5 10.4 12.8 11.4 9 ...
##  $ quality           : int  5 6 6 6 5 5 4 6 7 6 ...
##  $ Vinho             : Factor w/ 2 levels "RED","WHITE": 2 2 1 2 2 1 1 1 2 2 ...

PH: vinhos são naturalmente ácidos, com a maioria indo de 2,8 a 4,0. Os níveis de pH estão intrinsecamente ligados ao estilo e qualidade dos vinhos. O pH relativamente baixo, na faixa de 3,1 a 3,4, parece ser pré-requisito para a produção de vinhos de alta qualidade com solidez.

Acidez Volátil: é um componente do vinho que tipicamente cresce conforme o vinho envelhece e, em quando atinge um nível elevado, é responsável pelo aroma de vinagre. É o resultado da falta de cuidados durante a vinificação.

Acidez Fixa: acidez é uma das características básica que tem uma contribuição relevante para o sabor, frescura, equilíbrio e capacidade de conservação dos vinhos. Acidez Fixa é a diferença entre acidez total do vinho e sua acidez volátil.

Ácido Cítrico: nos vinhos o ácido cítrico tem pouca ou nenhuma presença. Nos vinhos tintos desaparece devido à ação de bactérias láticas (fermentação malolática). Sensorialmente é fresco, porém em alguns casos pode apresentar um leve final amargo.

Dióxido de Enxofre Livre: as atividade antioxidásica do dióxido de enxofre bloqueia a ação de enzimas oxidantes, principalmente no início do processo de elaboração, evitando reações de oxidação e o consequentemente o escurecimento do vinho. O excesso de dióxido de enxofre livre tem um grande impacto no sabor, deixando-o mais amargo e com uma sensação mais metálica.

Dióxido de Enxofre Total: quanto mais dióxido de enxofre total estiver disponível, mais estável será o dióxido de enxofre livre.

Açúcar Residual: no processo de fermentação do vinho a levedura vai transformando o açúcar da uva em álcool. Por isso que, em teoria, quanto mais açúcar houver na uva, mais álcool haverá no vinho. Porem nem todo o açúcar é transformado em alcool, e o açúcar que resta no final do processo de fermentação é conhecido como açúcar residual.

Cloretos: os vinhos possuem em sua composição diversos produtos enológicos, sais e ácidos. Estes sais influenciam diretamente em sua qualidade.

Densidade: define a leveza do vinhos, e pode ser caracterizado pelo tipo da uva ou por técnicas usadas na vinificação que podem ser determinantes na concentração da bebida.

Álcool: essa é uma característica que causa controversa entre sommeliers. Embora há vinhos premiados com uma porcentagem maior de álcool, outros defendem que para o vinho ser de qualidade tem que ser inferior a 14% de álcool.

Sulfatos: os sulfatos também tem um papel de conservantes nos vinhos e ajudam na extração dos compostos fenólicos do vinho, responsáveis pela concentração de cor e taninos.

Qualidade: uma infidade de aspectos influenciam na qualidade dos vinhos, desde aspectos como o nivel de oxidação, até a contaminação da rolha. No dataset a qualidade máxima é uma escala inteira entre 0 (menor qualidade) e 10 (maior qualidade).

Vinho: há inúmeros tipos de vinho (ex: tintos, brancos, roses, doces e espumantes), porém nossos dados contém apenas dois tipos: brancos e tintos.

Links acessados para fundamentação teórica:

1.1.1 Dimensão do dataset

wine_dset %>% 
  group_by(Vinho) %>% 
  count()
## # A tibble: 2 x 2
## # Groups:   Vinho [2]
##   Vinho     n
##   <fct> <int>
## 1 RED    1599
## 2 WHITE  4898

A quantidade de dados para os vinhos brancos é aproximadamente 3 vezes maior que o vinho tinto.

1.1.2 Integridade dos dados

Antes de qualquer análise, vamos conferir se nosso dataset não apresenta valores faltantes:

wine_white_dset <- 
  wine_dset %>%
  filter(Vinho == 'WHITE')

wine_red_dset <- 
  wine_dset %>% 
  filter(Vinho == 'RED')

sum(is.na(wine_white_dset))
## [1] 0
sum(is.na(wine_red_dset))
## [1] 0

Como as somas dos valores NAs, tanto para o vinho tinto quanto para o branco, podemos afirmar que não há dados faltantes. Dessa forma podemos continuar sem precisar substituir ou remover os valores iguais a NA.

1.1.3 Característica de cada tipo de vinho

O vinho branco e tinto apresentam características diferentes que definem se ele é bom ou ruim. Vamos dar uma olhada nos dados pra cada característica:

Vinho Branco

summary(wine_white_dset)
##     id_vinho     fixedacidity    volatileacidity    citricacid    
##  Min.   :   1   Min.   : 3.800   Min.   :0.0800   Min.   :0.0000  
##  1st Qu.:1650   1st Qu.: 6.300   1st Qu.:0.2100   1st Qu.:0.2700  
##  Median :3310   Median : 6.800   Median :0.2600   Median :0.3200  
##  Mean   :3284   Mean   : 6.855   Mean   :0.2782   Mean   :0.3342  
##  3rd Qu.:4932   3rd Qu.: 7.300   3rd Qu.:0.3200   3rd Qu.:0.3900  
##  Max.   :6497   Max.   :14.200   Max.   :1.1000   Max.   :1.6600  
##  residualsugar      chlorides       freesulfurdioxide totalsulfurdioxide
##  Min.   : 0.600   Min.   :0.00900   Min.   :  2.00    Min.   :  9.0     
##  1st Qu.: 1.700   1st Qu.:0.03600   1st Qu.: 23.00    1st Qu.:108.0     
##  Median : 5.200   Median :0.04300   Median : 34.00    Median :134.0     
##  Mean   : 6.387   Mean   :0.04577   Mean   : 35.31    Mean   :138.4     
##  3rd Qu.: 9.900   3rd Qu.:0.05000   3rd Qu.: 46.00    3rd Qu.:167.0     
##  Max.   :45.800   Max.   :0.34600   Max.   :289.00    Max.   :440.0     
##     density             pH          sulphates         alcohol     
##  Min.   :0.9871   Min.   :2.720   Min.   :0.2200   Min.   : 8.00  
##  1st Qu.:0.9917   1st Qu.:3.090   1st Qu.:0.4100   1st Qu.: 9.50  
##  Median :0.9937   Median :3.180   Median :0.4700   Median :10.40  
##  Mean   :0.9940   Mean   :3.188   Mean   :0.4898   Mean   :10.51  
##  3rd Qu.:0.9961   3rd Qu.:3.280   3rd Qu.:0.5500   3rd Qu.:11.40  
##  Max.   :1.0140   Max.   :3.820   Max.   :1.0800   Max.   :14.20  
##     quality        Vinho     
##  Min.   :3.000   RED  :   0  
##  1st Qu.:5.000   WHITE:4898  
##  Median :6.000               
##  Mean   :5.878               
##  3rd Qu.:6.000               
##  Max.   :9.000

Vinho Tinto

summary(wine_red_dset)
##     id_vinho     fixedacidity   volatileacidity    citricacid   
##  Min.   :   3   Min.   : 4.60   Min.   :0.1200   Min.   :0.000  
##  1st Qu.:1523   1st Qu.: 7.10   1st Qu.:0.3900   1st Qu.:0.090  
##  Median :3103   Median : 7.90   Median :0.5200   Median :0.260  
##  Mean   :3141   Mean   : 8.32   Mean   :0.5278   Mean   :0.271  
##  3rd Qu.:4690   3rd Qu.: 9.20   3rd Qu.:0.6400   3rd Qu.:0.420  
##  Max.   :6490   Max.   :15.90   Max.   :1.5800   Max.   :1.000  
##  residualsugar      chlorides       freesulfurdioxide totalsulfurdioxide
##  Min.   : 0.900   Min.   :0.01200   Min.   : 1.00     Min.   :  6.00    
##  1st Qu.: 1.900   1st Qu.:0.07000   1st Qu.: 7.00     1st Qu.: 22.00    
##  Median : 2.200   Median :0.07900   Median :14.00     Median : 38.00    
##  Mean   : 2.539   Mean   :0.08747   Mean   :15.87     Mean   : 46.47    
##  3rd Qu.: 2.600   3rd Qu.:0.09000   3rd Qu.:21.00     3rd Qu.: 62.00    
##  Max.   :15.500   Max.   :0.61100   Max.   :72.00     Max.   :289.00    
##     density             pH          sulphates         alcohol       
##  Min.   :0.9901   Min.   :2.740   Min.   :0.3300   Min.   : 0.9567  
##  1st Qu.:0.9956   1st Qu.:3.210   1st Qu.:0.5500   1st Qu.: 9.5000  
##  Median :0.9968   Median :3.310   Median :0.6200   Median :10.2000  
##  Mean   :0.9967   Mean   :3.311   Mean   :0.6581   Mean   :10.4001  
##  3rd Qu.:0.9978   3rd Qu.:3.400   3rd Qu.:0.7300   3rd Qu.:11.1000  
##  Max.   :1.0037   Max.   :4.010   Max.   :2.0000   Max.   :14.9000  
##     quality        Vinho     
##  Min.   :3.000   RED  :1599  
##  1st Qu.:5.000   WHITE:   0  
##  Median :6.000               
##  Mean   :5.636               
##  3rd Qu.:6.000               
##  Max.   :8.000

1.1.3.1 Diferença da mediana das características por tipo de vinho

Trabalharemos com os valores das medianas, ao invés das médias, porque as medianas não sofrem o impacto que as médias sofreria devido a presença de outliers. Explorando esses dados é possível ter um overview de como essas característica estão organizadas pelo dataset e identificar o que difere um vinho tinto do branco.

# Vinho Tinto
median_red_dset <-  sapply(select(wine_red_dset, -c(Vinho, id_vinho, quality)), median)
median_red_dset <- as.data.frame(median_red_dset)
median_red_dset <- rownames_to_column(median_red_dset) %>% 
  rename(Mediana = median_red_dset, Caracteristica = rowname) 

# Vinho Branco
median_white_dset <-  sapply(select(wine_white_dset, -c(Vinho, id_vinho, quality)),median)
median_white_dset <- as.data.frame(median_white_dset)
median_white_dset <- rownames_to_column(median_white_dset) %>% 
  rename(Mediana = median_white_dset, Caracteristica = rowname) 

# Diferenca
mediana_diferenca <- data.frame(
  Caracteristica = median_white_dset$Caracteristica,
  Diferenca.Mediana = abs(median_white_dset$Mediana - median_red_dset$Mediana)
)

top_n(arrange(mediana_diferenca, desc(mediana_diferenca$Diferenca.Mediana)), dim(arrange(mediana_diferenca, desc(mediana_diferenca$Diferenca.Mediana)))[1])
##        Caracteristica Diferenca.Mediana
## 1  totalsulfurdioxide          96.00000
## 2   freesulfurdioxide          20.00000
## 3       residualsugar           3.00000
## 4        fixedacidity           1.10000
## 5     volatileacidity           0.26000
## 6             alcohol           0.20000
## 7           sulphates           0.15000
## 8                  pH           0.13000
## 9          citricacid           0.06000
## 10          chlorides           0.03600
## 11            density           0.00301

Através das medianas, três valores chamaram atenção entre os tipos de vinho: totalsulfurdioxide, freesulfurdioxide e residualsugar.

Vamos utilizar a análise gráfica, com as três características acima, para reforçar a visualização dos valores já obtidos na função summary (a visualização gráfica por histogramas nos auxilia também na detecção de outliers):

1.1.3.2 Histogramas de cada característica

plot_ly(wine_dset, y = ~totalsulfurdioxide,type = "box",
              color = ~Vinho, colors = c("red", "khaki")) %>% 
      layout(title = "Dióxido de Enxofre Total")
plot_ly(wine_dset, y = ~freesulfurdioxide,type = "box",
              color = ~Vinho, colors = c("red", "khaki")) %>% 
      layout(title = "Dióxido de Enxofre Livre")
plot_ly(wine_dset, y = ~residualsugar,type = "box",
              color = ~Vinho, colors = c("red", "khaki")) %>% 
      layout(title = "Açúcar Residual")
plot_ly(wine_dset, y = ~fixedacidity,type = "box",
              color = ~Vinho, colors = c("red", "khaki")) %>% 
      layout(title = "Acidez Fixa")
plot_ly(wine_dset, y = ~pH,type = "box",
              color = ~Vinho, colors = c("red", "khaki")) %>% 
      layout(title = "pH")

Após a análise gráfica ficou ainda mais clara a diferença entre cada tipo de vinho (tinto ou branco), portanto, vamos selecionar somente um tipo de vinho para a criação de um modelo preditivo coerente. Além disso, como o número de dados pros vinhos brancos é bem maior do que para os tintos (aprox. 3 vezes maior), utilizaremos os dados que oferecem mais amostras pra treinar e validar nosso modelo.

Antes de prosseguirmos para a parte de remoção de outliers e a regressão linear, a variável o freesulfurdioxide chamou a atenção desde o tópico “Descrição dos Dados” por sua descrição dar indícios que este valor está relacionado ao sabor e, consequentemente, a qualidade do vinho. Testando esta relação:

wine_dset %>%
  group_by(quality, freesulfurdioxide) %>% 
  ggplot(aes(factor(quality), freesulfurdioxide, color = quality)) +
  geom_boxplot() +
  theme(legend.position = "none") +
  facet_wrap(~Vinho ) +
  labs(y = "Dióxido de enxofre", x = "Qualidade")

Embora os vinhos de maior qualidade apresentam um baixo valor de dióxido de enxofre livre, a relação dos outros valores com qualidade se mostrou insuficiente para determinar se o vinho é bom ou não, ou seja, outras características correlacionadas com o dióxido de enxofre livre devem explicar melhor a qualidade.

1.1.4 Correlação

wine_white_dset <- wine_white_dset %>% 
  select(-c(Vinho, id_vinho))

whitedset_cor <- cor(wine_white_dset)

corrplot::corrplot(whitedset_cor, method="circle", order="hclust")

Pela matriz de correlação é perceptível como algumas variáveis se correlacionam mais com o restante do dataset do que as outras, são elas: density, totalsufurdioxide, freesufurdioxide e alcohol.

1.1.5 Componentes principais

As características que possuem similaridade alta no nível da correlação podem trazer informações redundantes e aumentar a instabilidade dos modelos, por isso, usaremos a análise de componentes principais para combinar essas variáveis para formar componentes ortogonais (não relacionadas com os componentes anteriores).

# Removendo a variavel quality
white_dsetX <- wine_white_dset[,-12]

white_pcomp <- prcomp(white_dsetX, center = TRUE,scale = TRUE)
summary(white_pcomp)
## Importance of components:
##                           PC1    PC2    PC3     PC4     PC5     PC6
## Standard deviation     1.7999 1.2551 1.1040 1.01022 0.98743 0.96603
## Proportion of Variance 0.2945 0.1432 0.1108 0.09278 0.08864 0.08484
## Cumulative Proportion  0.2945 0.4377 0.5485 0.64129 0.72993 0.81477
##                            PC7     PC8     PC9    PC10    PC11
## Standard deviation     0.84999 0.77459 0.64068 0.53811 0.12262
## Proportion of Variance 0.06568 0.05454 0.03732 0.02632 0.00137
## Cumulative Proportion  0.88045 0.93499 0.97231 0.99863 1.00000
plot(white_pcomp, type = 'l', main = "Componentes Principais")

# quality_column <- wine_white_dset[,12]
# 
# for (col in colnames(white_dsetX)) {
#   upper_fence <- quantile(white_dsetX[,col], 0.75, names = FALSE) +(1.5 * IQR(white_dsetX[,col]))
#   lower_fence <- quantile(white_dsetX[,col],0.25, names = FALSE) - (1.5 * IQR(white_dsetX[,col]))
#   
#   idx <- which(white_dsetX[,col] < lower_fence | white_dsetX[,col] > upper_fence)
#   for (x in idx) {
#     white_dsetX[x,col] <- NA
#   }
# }
# 
# wine_white_dset <- mutate(white_dsetX,quality = quality_column)

2 Parte II - (Vinhos Brancos)

2.1 Regresão Linear

O objetivo desta sessão é criar um modelo de regressão linear para estimar o índice de qualidade dos vinhos. Após dividir o dataset entre dataset de treino e teste, traçamos uma regressão linear com todas variáveis para estimar a qualidade do vinho:

set.seed(2019)
prt <- 2/3

treino <- sample(1:NROW(wine_white_dset), as.integer(prt*NROW(wine_white_dset)))

trainData <- wine_white_dset[treino,]
testData  <- wine_white_dset[-treino,]

modeloBackWard <- lm(quality ~., data = trainData)
summary(modeloBackWard)
## 
## Call:
## lm(formula = quality ~ ., data = trainData)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -3.9599 -0.4963 -0.0370  0.4594  3.1007 
## 
## Coefficients:
##                      Estimate Std. Error t value Pr(>|t|)    
## (Intercept)         2.392e+02  2.746e+01   8.710  < 2e-16 ***
## fixedacidity        1.296e-01  2.788e-02   4.650 3.46e-06 ***
## volatileacidity    -1.903e+00  1.427e-01 -13.337  < 2e-16 ***
## citricacid         -1.240e-02  1.160e-01  -0.107   0.9149    
## residualsugar       1.119e-01  1.042e-02  10.746  < 2e-16 ***
## chlorides          -7.694e-02  6.551e-01  -0.117   0.9065    
## freesulfurdioxide   4.099e-03  1.023e-03   4.009 6.24e-05 ***
## totalsulfurdioxide -1.701e-04  4.629e-04  -0.367   0.7133    
## density            -2.399e+02  2.782e+01  -8.621  < 2e-16 ***
## pH                  9.112e-01  1.354e-01   6.729 2.01e-11 ***
## sulphates           6.834e-01  1.235e-01   5.532 3.41e-08 ***
## alcohol             7.133e-02  3.477e-02   2.052   0.0403 *  
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 0.7413 on 3253 degrees of freedom
## Multiple R-squared:  0.2822, Adjusted R-squared:  0.2798 
## F-statistic: 116.3 on 11 and 3253 DF,  p-value: < 2.2e-16

Do modeloBackWard acima:

Variáveis dependentes: quality
Variáveis independentes: todas as outras

Os valores com asterisco são aqueles mais correlacionados com a variável quality. A coluna Pr(>|t|) mostra o Teste T de Student, portanto, valores abaixo do p value igual a 0,05 são relevantes para a análise de acordo com a taxa escolhida (p = 5%). Como a maioria das variáveis possuem asterisco, iremos utilizar duas abordagens pra encontrar o melhor modelo usando menos variáveis para evitar informações redundantes:

  • Utilizar as bibliotecas leaps e car para encontrar o melhor subset pra regressão linear;
  • Utilizar as componentes principais no modelo de regressão linear.

2.1.1 Subset para regressão linear

Biblioteca Leaps e Car

library(car)
library(leaps)

leaps <- regsubsets(quality~., data = trainData, nbest = 2, method = "exhaustive")
subsets(leaps, statistic = "bic", legend = FALSE, ylim=c(-1040,-940), xlim=c(2,6.3))

##                    Abbreviation
## fixedacidity                 fx
## volatileacidity               v
## citricacid                   ct
## residualsugar                 r
## chlorides                    ch
## freesulfurdioxide            fr
## totalsulfurdioxide            t
## density                       d
## pH                            p
## sulphates                     s
## alcohol                       a

Usando somente 4 variáveis pra construir o modelo de regressão linear da qualidade, o gráfico acima mostra que a melhor escolha é a combinação volatileacidity+residualsugar+density+alcohol por ter o menor valor do critério de informação bayesiano (BIC). A ideia de pegar 4 variáveis é pra selecionar um número reduzido de itens pra construir o modelo, desta forma no mundo real nós conseguiríamos fazer um controle de qualidade usando testes químicos com menos substâncias, o que depreciaria o custo do processo.

modelo4 <- lm(quality ~volatileacidity+residualsugar+density+alcohol,
                     data = trainData)
summary(modelo4)
## 
## Call:
## lm(formula = quality ~ volatileacidity + residualsugar + density + 
##     alcohol, data = trainData)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -3.3361 -0.5047 -0.0266  0.4659  3.1651 
## 
## Coefficients:
##                   Estimate Std. Error t value Pr(>|t|)    
## (Intercept)      1.036e+02  1.576e+01   6.575 5.64e-11 ***
## volatileacidity -2.132e+00  1.370e-01 -15.565  < 2e-16 ***
## residualsugar    6.218e-02  6.168e-03  10.081  < 2e-16 ***
## density         -1.006e+02  1.568e+01  -6.417 1.60e-10 ***
## alcohol          2.347e-01  2.323e-02  10.105  < 2e-16 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 0.752 on 3260 degrees of freedom
## Multiple R-squared:  0.2597, Adjusted R-squared:  0.2587 
## F-statistic: 285.8 on 4 and 3260 DF,  p-value: < 2.2e-16

Do modelo4 acima:

Variáveis dependentes: quality
Variáveis independentes: volatileacidity+residualsugar+density+alcohol

O valor R² ainda é muito baixo para o modelo, 25,97%. Esse valor significa que o modelo explica somente a variação desta porcentagem dos dados do modelo.

E com 6 variáveis?

modelo6 <- lm(quality ~fixedacidity+volatileacidity+residualsugar+density+pH+sulphates,
                     data = trainData)
summary(modelo6)
## 
## Call:
## lm(formula = quality ~ fixedacidity + volatileacidity + residualsugar + 
##     density + pH + sulphates, data = trainData)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -3.5143 -0.4871 -0.0502  0.4701  3.0612 
## 
## Coefficients:
##                   Estimate Std. Error t value Pr(>|t|)    
## (Intercept)      2.868e+02  9.022e+00  31.787  < 2e-16 ***
## fixedacidity     1.582e-01  1.929e-02   8.202 3.38e-16 ***
## volatileacidity -1.935e+00  1.349e-01 -14.340  < 2e-16 ***
## residualsugar    1.316e-01  5.336e-03  24.664  < 2e-16 ***
## density         -2.878e+02  9.263e+00 -31.076  < 2e-16 ***
## pH               1.081e+00  1.035e-01  10.448  < 2e-16 ***
## sulphates        7.873e-01  1.177e-01   6.688 2.65e-11 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 0.7437 on 3258 degrees of freedom
## Multiple R-squared:  0.2765, Adjusted R-squared:  0.2752 
## F-statistic: 207.5 on 6 and 3258 DF,  p-value: < 2.2e-16

Do modelo6 acima:

Variáveis dependentes: quality
Variáveis independentes: volatileacidity+residualsugar+density+alcohol

O valor R² agora é de 27,65%, ou seja, o ganho na qualidade do modelo ao adicionar mais duas variáveis foi pouco significativo, portanto, estes modelos de regressão linear não são adequados pra predição da qualidade.

Tentaremos agora usar regressão linear com os componentes principais para aumentar R².

2.1.2 Componentes principais com regressão linear

# Removendo a variavel quality e criando variavel com componentes principais para teste dset
white_dsetX <- trainData[,-12]
white_pcomp <- prcomp(white_dsetX, center = TRUE,scale = TRUE)


trainData2 <- trainData[,12]
# white_pcomp foi calculado na sessao de componentes principais
trainData2 <- cbind(trainData2,data.frame(white_pcomp$x))
colnames(trainData2)[1] <- "quality"

modeloCP <- lm(quality ~., data = trainData2)
summary(modeloCP)
## 
## Call:
## lm(formula = quality ~ ., data = trainData2)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -3.9599 -0.4963 -0.0370  0.4594  3.1007 
## 
## Coefficients:
##              Estimate Std. Error t value Pr(>|t|)    
## (Intercept)  5.891271   0.012973 454.108  < 2e-16 ***
## PC1          0.142066   0.007224  19.666  < 2e-16 ***
## PC2          0.055510   0.010324   5.377 8.11e-08 ***
## PC3          0.153743   0.011660  13.185  < 2e-16 ***
## PC4          0.180252   0.012903  13.970  < 2e-16 ***
## PC5          0.024707   0.013083   1.889  0.05904 .  
## PC6         -0.038497   0.013509  -2.850  0.00440 ** 
## PC7         -0.008152   0.015315  -0.532  0.59457    
## PC8          0.168294   0.016675  10.093  < 2e-16 ***
## PC9         -0.358493   0.020237 -17.715  < 2e-16 ***
## PC10        -0.074724   0.024135  -3.096  0.00198 ** 
## PC11        -0.803041   0.106341  -7.552 5.55e-14 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 0.7413 on 3253 degrees of freedom
## Multiple R-squared:  0.2822, Adjusted R-squared:  0.2798 
## F-statistic: 116.3 on 11 and 3253 DF,  p-value: < 2.2e-16

Excluindo o PC5 e o PC7 do modelo por apresentarem um elevado Pr(>|t|):

modeloCP2 <- lm(quality ~PC1+PC2+PC3+PC4+PC6+PC8+PC9+PC10+PC11, data = trainData2)
summary(modeloCP2)
## 
## Call:
## lm(formula = quality ~ PC1 + PC2 + PC3 + PC4 + PC6 + PC8 + PC9 + 
##     PC10 + PC11, data = trainData2)
## 
## Residuals:
##     Min      1Q  Median      3Q     Max 
## -4.1164 -0.5023 -0.0401  0.4541  3.1020 
## 
## Coefficients:
##              Estimate Std. Error t value Pr(>|t|)    
## (Intercept)  5.891271   0.012977 453.979  < 2e-16 ***
## PC1          0.142066   0.007226  19.661  < 2e-16 ***
## PC2          0.055510   0.010327   5.375 8.18e-08 ***
## PC3          0.153743   0.011663  13.182  < 2e-16 ***
## PC4          0.180252   0.012906  13.966  < 2e-16 ***
## PC6         -0.038497   0.013512  -2.849  0.00441 ** 
## PC8          0.168294   0.016680  10.090  < 2e-16 ***
## PC9         -0.358493   0.020242 -17.710  < 2e-16 ***
## PC10        -0.074724   0.024142  -3.095  0.00198 ** 
## PC11        -0.803041   0.106372  -7.549 5.64e-14 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## Residual standard error: 0.7415 on 3255 degrees of freedom
## Multiple R-squared:  0.2814, Adjusted R-squared:  0.2794 
## F-statistic: 141.6 on 9 and 3255 DF,  p-value: < 2.2e-16

Do modeloCP2 acima:

Variáveis dependentes: quality
Variáveis independentes: PC1+PC2+PC3+PC4+PC6+PC8+PC9+PC10+PC11

2.1.3 Testando os modelos

errorRate4 <- sigma(modelo4)/mean(testData$quality)
paste0("Modelo4: ",round(errorRate4*100,digits = 2),"% de taxa de erro")
## [1] "Modelo4: 12.85% de taxa de erro"
errorRate6 <- sigma(modelo6)/mean(testData$quality)
paste0("Modelo6: ",round(errorRate6*100, digits = 2),"% de taxa de erro")
## [1] "Modelo6: 12.71% de taxa de erro"
errorRateCP2 <- sigma(modeloCP2)/mean(testData$quality)
paste0("ModeloCP2: ", round(errorRateCP2*100, digits = 2),"% de taxa de erro")
## [1] "ModeloCP2: 12.67% de taxa de erro"

Os modelos modelo4, modelo6 e modeloCP2 apresentam um R² e taxa de erro muito parecidos, demonstrando que a eficácia deles pra explicar a variância dos dados é muito próxima. Levando isso em conta, o modelo indicado é o modelo4 por trabalhar com menos variáveis evitando assim o uso de informações redundantes.

2.2 Árvore de regressão

Variáveis dependentes: ModeloPC1 <- (quality)
ModeloPC3 <- (quality)

Variáveis independentes:
ModeloPC1 <- (alcohol+residualsugar+density)
ModeloPC3 <- (volatileacidity+fixedacidity)

2.2.1 Analisando Modelos

Modelo PC1

vinhos_brancos <- wine_dset %>% filter(Vinho == 'WHITE')
vinhos_brancos <- vinhos_brancos[2:13]

attach(vinhos_brancos)

modelopc1 <- rpart (quality ~ alcohol+residualsugar+density, data=vinhos_brancos, 
                     cp = 0.001,minsplit = 2,maxdepth=5)

# summary(modelopc1)

rpart.plot(modelopc1, type=2, extra="auto", under=FALSE, clip.right.labs=TRUE,
           fallen.leaves=TRUE,   digits=2, varlen=-3, faclen=15,
           cex=NULL, tweak=1.7,
           compress=TRUE,box.palette="auto",
           snip=FALSE)

Val_pred_tree <- predict(modelopc1,interval = "prediction", level = 0.95) 
str(Val_pred_tree)
##  Named num [1:4898] 5.89 6.52 5.35 5.53 5.97 ...
##  - attr(*, "names")= chr [1:4898] "1" "2" "3" "4" ...
mse_tree <- mean((quality - Val_pred_tree)^2)
sqrt(mse_tree)
## [1] 0.7608975

Podemos observar no ModeloPC1:

Porcentagem de importância das variáveis escolhidas:

alcohol <- 53%
density <- 34%
residualsugar <-13%

Número de Node criados 63
Número de observações 4898

Maiores médias (levando em conta a taxa de cada variável):

mean = 6.555556 | residualsugar < 1.75 | density < 0.990005 | alcohol < 13.65

mean = 6.763948 |
residualsugar < 2.15 |
density < 0.98987 |
alcohol < 12.89667

mean = 6.875 |
alcohol < 13.55 |
residualsugar < 2.25 |
density < 0.98953

Percebemos que os vinhos com valor de residualsugar abaixo de 2.5 tem um potencial de qualidade maior, como também os vinhos com valor de density abaixo de 1 e alcohol abaixo de 14 também contribuem para um vinho de maior qualidade. Com tudo um pode equilibrar o outro na dosagem certa.

Modelo PC3

modelopc3 <- rpart (quality ~ volatileacidity+fixedacidity, data=vinhos_brancos, 
                     cp = 0.001,minsplit = 2,maxdepth=5)

# summary(modelopc3)

rpart.plot(modelopc3, type=2, extra="auto", under=FALSE, clip.right.labs=TRUE,
           fallen.leaves=TRUE,   digits=2, varlen=-3, faclen=15,
           cex=NULL, tweak=1.7,
           compress=TRUE,box.palette="auto",
           snip=FALSE)

Val_pred_tree2 <- predict(modelopc3,interval = "prediction", level = 0.95) 
str(Val_pred_tree)
##  Named num [1:4898] 5.89 6.52 5.35 5.53 5.97 ...
##  - attr(*, "names")= chr [1:4898] "1" "2" "3" "4" ...
mse_tree <- mean((quality - Val_pred_tree2)^2)
sqrt(mse_tree)
## [1] 0.8422522

Podemos observar no ModeloPC3:

Porcentagem de importância das variáveis escolhidas:

volatileacidity <- 59%
fixedacidity <- 41%

Número de Node criados 63
Número de observações 4898

Maiores médias (levando em conta a taxa de cada variável):

mean = 6.135546 |
volatileacidity < 0.195 |
fixedacidity < 6.175

mean = 6.213192 |
fixedacidity < 7.45 |
volatileacidity < 0.1325

mean = 6.294643 |
volatileacidity < 0.525 |
fixedacidity < 5.35

Percebemos que os vinhos com valor de volatileacidity abaixo de 0.1300 tem um potencial de qualidade maior, como também os vinhos com valor de fixedacidity abaixo de 7.45 também contribuem para um vinho de maior qualidade. Com tudo um pode equilibrar o outro na dosagem certa.

2.3 Resumo Regressão linear / Árvore de Regressão

Com base nas duas técnicas conseguimos enxergar alguns componentes que elevaram o padrão de qualidade do vinho, com alguns diferenciais para cada uma. A técnica de regressão linear parece ser mais segura em mostrar que os componentes citricacid, volatileaciditye e fixedacidity são os causadores de uma maior qualidade do vinho. Já a técnica de árvore de regressão mostra de uma forma mais transparente e fácil de enxergar que a qualidade do vinho é mais elevada por causa dos componentes residualsugar, density e alcohol. Ou seja o modelo pc3 se mostrou mais adequado na regressão linear, e o modelo pc1 se mostrou mais adequado na árvore de regressão.

No contexto geral o modelo PC1 mostrou os melhores resultados, usando a Árvore de Regressão.

3 Parte III

3.1 Regressão Logística

Para aplicarmor uma regressão logistica decidimos categorizar a qualidade dos vinhos em dois tipos, Vinhos Bons com uma qualidade igual ou superior a 7, ou vinhos ruins com uma pontuação de qualidade inferior a 7.

summary(wine_white_dset$quality)
##    Min. 1st Qu.  Median    Mean 3rd Qu.    Max. 
##   3.000   5.000   6.000   5.878   6.000   9.000

A razão de escolhermos 7 como nota divisora de vinhos bons e ruins é porquie a média da qualidade dos vinhos é de aproximandamente 6 e menos de um quarto dos vinhos brancos estão com nota 7 ou acima. Decidimos por categorizar como vinhos bons aqules que tem uma avaliação de qualidade acima da média. Assim podemos rodar uma regressão logistica com as variaveis usadas anteriormente para analisarmos se o modelo gerado é aceitável.

wine_white_dset <- wine_dset %>%
  filter(Vinho == 'WHITE')
Vinhos2Cat <- subset(wine_white_dset, select = -c(id_vinho))
attach(Vinhos2Cat)
Vinhos2Cat$quality_cat[quality >= 7] <- 'Bom'
Vinhos2Cat$quality_cat[quality < 7] <- 'Ruim'

Vinhos2Cat <- subset(Vinhos2Cat, select = -c(quality))

set.seed(2019)
prt <- 2/3

Vinhos2Cat$quality_cat <- as.factor(Vinhos2Cat$quality_cat)

treino <- sample(1:NROW(Vinhos2Cat), as.integer(prt*NROW(Vinhos2Cat)))

trainData <- Vinhos2Cat[treino,]
testData  <- Vinhos2Cat[-treino,]

modelo_log<-glm(quality_cat ~ alcohol+residualsugar+density, trainData, family=binomial(link=logit))
summary(modelo_log)
## 
## Call:
## glm(formula = quality_cat ~ alcohol + residualsugar + density, 
##     family = binomial(link = logit), data = trainData)
## 
## Deviance Residuals: 
##     Min       1Q   Median       3Q      Max  
## -2.5849   0.3396   0.4503   0.6434   1.7147  
## 
## Coefficients:
##                 Estimate Std. Error z value Pr(>|z|)    
## (Intercept)   -229.84344   60.27779  -3.813 0.000137 ***
## alcohol         -0.52618    0.08602  -6.117 9.52e-10 ***
## residualsugar   -0.11847    0.02369  -5.000 5.74e-07 ***
## density        239.11345   59.98898   3.986 6.72e-05 ***
## ---
## Signif. codes:  0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
## 
## (Dispersion parameter for binomial family taken to be 1)
## 
##     Null deviance: 3393.8  on 3264  degrees of freedom
## Residual deviance: 2899.4  on 3261  degrees of freedom
## AIC: 2907.4
## 
## Number of Fisher Scoring iterations: 4

O p-value para todas as variáveis está ótimo, podemos usar esse modelo na nossa base de teste para calcularmos a acurácia.

attach(testData)
Predito_teste<-predict(modelo_log, testData)


fx_predito <- cut(Predito_teste, breaks=c(-1,2.5,4), right=F)

MC <- table( quality_cat,  fx_predito , deparse.level = 2) #
show(MC) 
##            fx_predito
## quality_cat [-1,2.5) [2.5,4)
##        Bom       326      28
##        Ruim     1022     249
ACC = sum(diag(MC))/sum(MC) 
show(ACC) 
## [1] 0.3538462

Aqui podemos ver a matriz de confusão, onde há 326 falsos positivos e 249 falsos negativos, com um total de 35% de acurácia. Esse modelo é melhor identificando os vinhos ruins, do que os bons, mas mesmo assim não consegue um resultado muito satisfatório.

3.2 Árvore de Decisão

Vamos tentar com a árvore de decisão, usando as mesmas variáveis:

modelo_tree <- rpart (quality_cat ~ alcohol+residualsugar+density, data=trainData, cp = 0.006,minsplit = 150,maxdepth=10)


rpart.plot(modelo_tree, type=4, extra=104, under=FALSE, clip.right.labs=TRUE,
           fallen.leaves=FALSE,   digits=2, varlen=-3, faclen=20,
           cex=0.4, tweak=1.7,
           compress=TRUE,
           snip=FALSE)

Parece promissor, ela classificou a grande maioria dos vinhos como ruins, vamos ver a acurácia dessa árvore:

pred_class <- predict(modelo_tree ,testData , type = "class")

Campanha.matriz.de.confusao<-table(testData$quality_cat, pred_class)
Campanha.matriz.de.confusao
##       pred_class
##         Bom Ruim
##   Bom   110  250
##   Ruim   63 1210
diagonal <- diag(Campanha.matriz.de.confusao)
perc.erro <- 1 - sum(diagonal)/sum(Campanha.matriz.de.confusao)
perc.erro
## [1] 0.1916718

A árvore de decisão com essas variáveis obtem apenas 19% de acurácia, muito abaixo da regressão logistica.

4 Parte IV

4.1 Técnicas supervisionadas que poderiam ser usadas

4.1.1 Gaussian Naive Bayes

Uma técnica que pode ser adequada para classificação dos vinhos é Gaussian Naive Bayes essa técnica existe desde os anos 1950. Pertence a uma família de algoritmos chamados classificadores probabilísticos ou probabilidade condicional, onde também assume independência entre os recursos,isso nos permite prever uma classe/categoria, com base em determinado conjunto de recursos, usando probabilidade.O Naive Bayes pode ser aplicado efetivamente para alguns problemas de classificação, apesar de sua simplicidade, o classificador faz a definição de categorias surpreendentemente bem e é freqüentemente usado devido ao fato de superar métodos de classificação mais sofisticados.

4.1.2 Random forest

Quando usadas sozinhas, as árvores de decisão são propensas a overfitting. No entanto, random forest (Várias árvores de decisão) ajudam corrigindo o possível overfitting que poderia ocorrer. A técnica Random forest utiliza uma multiplicidade de árvores de decisão diferentes com previsões diferentes, uma random forest combina os resultados dessas árvores individuais para fornecer os resultados finais.A random forest aplica um algoritmo conjunto chamado ensacamento às árvores de decisão, que ajuda a reduzir a variação e o ajuste excessivo.

4.2 Técnicas não supervisionadas que poderiam ser usadas

4.2.1 Generative Adversarial Networks (GANs)

O Funcionamento de uma GAN se baseia em duas redes neurais uma Geradora e outra com o Discriminadora, o papel da rede geradora é falsificar dados e da rede Discriminadora é identificar quais dados foram falsificados. Ambas estão aprendendo e melhorando. A rede gerador está constantemente aprendendo a criar falsificações melhores, e a rede Discriminadora está constantemente melhorando em detectá-los.

4.2.2 K-means

É uma técnica de análise de cluster que permite agrupar os dados em grupos chamados clusters. Como os rótulos não são fornecidos para cada dado de treinamento, os clusters são determinados pela similaridade dos dados um do outro, essa técnica pode ser uma boa opção para a classificação dos vinhos já que possuímos um grande número de dados